数据同化(DA)是科学和工程中许多预测模型的关键组成部分。 DA允许使用系统的不完善动力学模型以及系统可用的嘈杂/稀疏观测来估算更好的初始条件。集合Kalman滤波器(ENKF)是一种DA算法,该算法广泛用于涉及高维非线性动力学系统的应用中。但是,ENKF需要使用系统的动力学模型来进化的大型预测集合。这通常在计算上棘手,尤其是当系统的状态数量很大时,例如天气预测。在小合奏的情况下,ENKF算法中的估计背景误差协方差矩阵患有采样误差,导致分析状态的错误估计(下一个预测周期的初始条件)。在这项工作中,我们提出了混合集合卡尔曼滤波器(H-ENKF),该滤波器被应用于两层准地球体流动系统作为测试案例。该框架利用了预先训练的基于学习的数据驱动的替代物,该替代物可廉价地生成和进化系统状态的大型数据驱动的集合,以准确计算背景错误协方差矩阵,而采样误差较少。 H-ENKF框架估算了更好的初始条件,而无需任何临时本地化策略。 H-ENKF可以扩展到任何基于集合的DA算法,例如粒子过滤器,这些粒子过滤器目前难以用于高维系统。
translated by 谷歌翻译
转移学习(TL)已成为神经网络(NNS)的科学应用中的强大工具,例如天气/气候预测和湍流建模。 TL可以实现分布的概括(例如,参数外推)和有效的不同训练集(例如,模拟和观察值)的有效混合。在TL中,使用目标系统中的小数据集对已经训练的基础系统进行了训练的NN的选定层。对于有效的TL,我们需要知道1)重新培训的最佳层是什么? 2)在TL期间学到了哪些物理学?在这里,我们提出了新的分析和一个新的框架,以解决(1) - (2)的多种多数非线性系统。我们的方法将系统数据的光谱分析与卷积NN激活和内核的光谱分析相结合,从系统的非线性物理学来解释了TL的内部工作。使用几种2D湍流设置的亚网格尺度建模作为测试用例,我们表明,学习的内核是低,带和高通滤波器的组合,并且TL学习了新的过滤器,其性质与光谱差异一致基础和目标系统。我们还发现,在这些情况下,最浅的层是重新培训的最佳层,这违背了机器学习文献中指导TL的共同智慧。我们的框架根据物理和NN理论确定了事先重新训练的最佳层。这些分析共同解释了在TL中学到的物理学,并提供了一个框架,以指导TL,以在科学和工程中进行广泛的应用,例如气候变化建模。
translated by 谷歌翻译
Recent advances in artificial intelligence (AI) have significantly intensified research in the geoscience and remote sensing (RS) field. AI algorithms, especially deep learning-based ones, have been developed and applied widely to RS data analysis. The successful application of AI covers almost all aspects of Earth observation (EO) missions, from low-level vision tasks like super-resolution, denoising, and inpainting, to high-level vision tasks like scene classification, object detection, and semantic segmentation. While AI techniques enable researchers to observe and understand the Earth more accurately, the vulnerability and uncertainty of AI models deserve further attention, considering that many geoscience and RS tasks are highly safety-critical. This paper reviews the current development of AI security in the geoscience and RS field, covering the following five important aspects: adversarial attack, backdoor attack, federated learning, uncertainty, and explainability. Moreover, the potential opportunities and trends are discussed to provide insights for future research. To the best of the authors' knowledge, this paper is the first attempt to provide a systematic review of AI security-related research in the geoscience and RS community. Available code and datasets are also listed in the paper to move this vibrant field of research forward.
translated by 谷歌翻译
近年来,由于海洋漏油事故严重影响环境,自然资源和沿海居民的生活,近年来,漏油事件引起了人们的关注。高光谱遥感图像提供了丰富的光谱信息,这对在复杂的海洋场景中监测漏油物有益。但是,大多数现有方法都是基于受监督和半监督的框架来检测高光谱图像(HSIS)的漏油事件,这些框架需要大量努力来注释一定数量的高质量训练集。在这项研究中,我们首次尝试基于HSIS的隔离森林开发无监督的漏油检测方法。首先,考虑到噪声水平在不同的频段之间有所不同,因此利用了噪声方差估计方法来评估不同频段的噪声水平,并且消除了因严重噪声而损坏的频段。其次,使用内核主成分分析(KPCA)来降低HSIS的高维度。然后,用隔离林估计属于海水和油泄漏之一的每个像素的概率,并且使用群集算法在检测到的概率上自动生产一组伪标记的训练样品。最后,可以通过在减少尺寸的数据上执行支持向量机(SVM)来获得初始检测图,然后,使用扩展的随机Walker(ERW)模型进一步优化初始检测结果,以改善检测检测漏油的准确性。关于我们自己创建的空气传播高光谱漏油数据(HOSD)的实验表明,该方法在其他最先进的检测方法方面获得了卓越的检测性能。
translated by 谷歌翻译
在深度学习时代,注释的数据集已成为遥感社区的关键资产。在过去的十年中,发表了许多不同的数据集,每个数据集都为特定的数据类型以及特定的任务或应用程序设计。在遥感数据集的丛林中,很难跟踪已经可用的内容。在本文中,我们介绍了EOD -IEEE GRSS地球观察数据库(EOD) - 一个交互式在线平台,用于分类不同类型的数据集利用遥感图像。
translated by 谷歌翻译
对抗性训练(AT)已被证明是将强大的对抗性鲁棒性引入深层神经网络的有效方法。但是,AT的高计算成本禁止在Federated Learning(FL)应用程序中使用有限的计算能力和较小的记忆足迹,例如,在资源受限的边缘设备上部署大规模的AT。以前很少有研究试图同时解决这些限制。在本文中,我们提出了一个名为Federated对抗性解耦学习(vade)的新框架,以启用FL中的资源受限的边缘设备。淡入淡出通过将解耦贪婪学习(DGL)应用于联合的对抗训练来减少计算和内存使用量,以便每个客户在每个通信回合中只需要在整个模型的一个小模块上执行。此外,我们通过添加辅助重量衰减来减轻客观不一致并实现更好的性能来改善香草DGL。 Fade为对抗性鲁棒性和融合提供了理论保证。实验结果还表明,淡出可以显着减少与完全关节训练保持几乎相同的准确性和鲁棒性的同时消耗的计算资源。
translated by 谷歌翻译
由于其定量优点和高灵敏度,位置排放断层扫描(PET)被广泛用于诊所和研究中,但遭受了低信噪比(SNR)的侵害。最近,卷积神经网络(CNN)已被广泛用于提高宠物图像质量。尽管在局部特征提取方面取得了成功和有效的效率,但由于其接受场有限,CNN无法很好地捕获远距离依赖性。全球多头自我注意力(MSA)是捕获远程信息的流行方法。但是,3D图像的全局MSA计算具有较高的计算成本。在这项工作中,我们提出了一个有效的空间和渠道编码器变压器Spach Transformer,可以基于本地和全局MSA来利用空间和渠道信息。基于不同宠物示踪剂数据集的实验,即$^{18} $ f-fdg,$^{18} $ f-acbc,$^{18} $ f-dcfpyl,$ f-dcfpyl和$^{68} $ ga--进行了Dotatate,以评估提出的框架。定量结果表明,所提出的SPACH变压器可以比其他参考方法获得更好的性能。
translated by 谷歌翻译
这里介绍了人工智能研究所(IARAI)组织的2022年Landslide4sense(L4S)竞赛的科学结果。竞争的目的是根据全球收集的卫星图像的大规模多个来源自动检测滑坡。 2022 L4S旨在促进有关使用卫星图像的语义分割任务的深度学习模型(DL)模型最新发展的跨学科研究。在过去的几年中,由于卷积神经网络(CNN)的发展,基于DL的模型已经达到了对图像解释的期望。本文的主要目的是介绍本次比赛中介绍的细节和表现最佳的算法。获胜的解决方案详细介绍了Swin Transformer,Segformer和U-NET等最先进的模型。还考虑了先进的机器学习技术和诸如硬采矿,自我培训和混合数据增强之类的策略。此外,我们描述了L4S基准数据集,以促进进一步的比较,并在线报告准确性评估的结果。可以在\ textIt {未来开发排行榜上访问数据,以供将来评估,\ url {https://www.iarai.ac.ac.at/landslide4sense/challenge/},并邀请研究人员提交更多预测结果,评估准确性在他们的方法中,将它们与其他用户的方法进行比较,理想情况下,改善了本文报告的滑坡检测结果。
translated by 谷歌翻译
近年来,深度学习算法在地球观察(EO)中的应用使依赖远程感知数据的领域取得了重大进展。但是,鉴于EO中的数据量表,创建具有专家使用像素级注释的大型数据集是昂贵且耗时的。在这种情况下,先验被视为一种有吸引力的方法,可以减轻在训练EO的深度学习方法时手动标签的负担。对于某些应用,这些先验很容易获得。本研究以许多计算机视觉任务中的自我监督特征表示学习的对比学习方法取得了巨大成功的动机,本研究提出了一种使用作物标签比例的在线深度聚类方法,作为研究基于政府作物的样本级别的先验者 - 整个农业地区的比例数据。我们使用来自巴西两个不同农业地区的两个大数据集评估了该方法。广泛的实验表明,该方法对不同的数据类型(合成句子雷达和光学图像)具有鲁棒性,考虑到目标区域中主要的作物类型,报告了更高的精度值。因此,它可以减轻EO应用中大规模图像注释的负担。
translated by 谷歌翻译
基于文本描述的高分辨率遥感图像的合成在许多实际应用方案中具有巨大的潜力。尽管深度神经网络在许多重要的遥感任务中取得了巨大的成功,但是从文本描述中生成现实的遥感图像仍然非常困难。为了应对这一挑战,我们提出了一个新颖的文本形象现代霍普菲尔德网络(TXT2IMG-MHN)。 TXT2IMG-MHN的主要思想是在具有现代Hopfield层的文本和图像嵌入方式上进行层次原型学习。 TXT2IMG-MHN并没有直接学习具体但高度多样化的文本图像联合特征表示,而是旨在从文本图像嵌入中学习最具代表性的原型,从而实现一种粗略的学习策略。然后可以利用这些学到的原型来代表文本到图像生成任务中更复杂的语义。为了更好地评估生成图像的现实主义和语义一致性,我们使用对合成图像训练的分类模型对真实遥感数据进行零击分类。尽管它很简单,但我们发现,零弹性分类的总体准确性可以作为评估从文本生成图像的能力的良好指标。基准遥感文本图像数据集上的广泛实验表明,所提出的TXT2IMG-MHN比现有方法可以生成更现实的遥感图像。代码和预培训模型可在线获得(https://github.com/yonghaoxu/txt2img-mhn)。
translated by 谷歌翻译